Sztuczna inteligencja Google'a „ma halucynacje” dotyczące katastrofy samolotu w Indiach i zmienia model samolotu
Funkcja Google Overviews, nowa funkcja sztucznej inteligencji wbudowana w wyszukiwarkę , popełniła poważny błąd: po katastrofie samolotu o locie AI171 w Indiach sztuczna inteligencja pomyliła model samolotu, myląc odniesienia do Boeinga 787 z Airbusem A330 i wyświetlając informacje, jakby były całkowicie wiarygodne.
Ten typ błędu jest znany jako „halucynacje”, zjawisko unikalne dla generatywnych systemów AI, które polega na wymyślaniu danych lub odpowiedzi, które wydają się być prawdziwe. W przeciwieństwie do tradycyjnej wyszukiwarki, która linkuje do źródeł, narzędzia takie jak Google Overviews próbują „podsumować” sieć i czasami niepoprawnie łączyć treści, powodując błędy, które mogą być krytyczne w wrażliwych kontekstach, takich jak tragedia.
Co się stało z Przeglądami GoogleW zeszły czwartek w Indiach doszło do poważnej katastrofy lotniczej, gdzie samolot Boeing 787 linii Air India rozbił się krótko po starcie. Zginęło ponad 260 osób , w tym kilka na ziemi. To tragedia, która miała wpływ na cały świat i, jak to często bywa, wielu użytkowników zaczęło szukać w Internecie informacji, aby dowiedzieć się, co się stało i jaki typ samolotu był zaangażowany. Ale tutaj pojawił się problem ze sztuczną inteligencją Google.
Narzędzie AI Overviews , które generuje automatyczne odpowiedzi na podstawie wyników wyszukiwania, zaczęło podawać nieprawidłowe informacje. Niektórzy zauważyli, że gdy szukali informacji o katastrofie, AI pewnie mówiła, że samolot to Airbus A330 , ale innym razem mówiła, że to Boeing 787 , a czasami mieszała oba. To był prawdziwy bałagan.
Dlaczego sztuczna inteligencja Google'a źle oceniła model samolotu w katastrofie w IndiachWedług ArsTechnica ta sztuczna inteligencja działa poprzez podsumowanie tego, co znajdzie w internecie , ale nie zawsze w pełni rozumie to, co czyta. Wiele artykułów o katastrofie wspomina o Airbusie jako o konkurencie Boeinga. To mogło ją zdezorientować, co doprowadziło do tego, że powiedziała coś niepoprawnie, mimo że wydawała się bardzo pewna siebie.
Google zabrało głos, wyjaśniając, że jego sztuczna inteligencja może popełniać błędy i że dodaje ostrzeżenie na końcu każdego wygenerowanego podsumowania, ale problem polega na tym, że to ostrzeżenie jest łatwe do zignorowania . W tym przypadku błąd mógł zdenerwować Airbusa , ponieważ jego nazwa była powiązana z wypadkiem, który nie miał nic wspólnego z jego samolotami.
Firma z Mountain View potwierdziła, że wyeliminowała tę nieprawidłową odpowiedź , ale nasuwa się nam następujący wniosek dotyczący sztucznej inteligencji: chociaż tego typu narzędzia mogą być przydatne, nie zawsze można w pełni ufać ich informacjom , dlatego należy dokładnie sprawdzać informacje.
20minutos
